olive(最高9.9倍,微软推出Olive工具:大幅优化AMD GPU运行模型性能)
淘宝优惠券
2023-12-15 19:22
159
最高9.9倍,微软推出Olive工具:大幅优化AMD GPU运行模型性能
IT之家 8 olive月 22 日消息,微软公司近日发布新闻稿,介绍了全新的 Microsoft Olive 工具,最多可以让 AMD 旗下的 GPU 显卡运行模型性

能提升 9.9 倍。Microsoft Olive 是由 Pythonolive 语言开发的工具,可以大幅优化 AMD GPU 运行大语言模型的性能。
新闻稿中表示 Radeon RX 7900 XTX GPU 在启用 Microsoliveoft Olive 工具之后,以运行 Stable Diffusion 模型为例,基于文本生成图像性能明显提升。olive
Microsoft Olive 可以转换、优化、量化olive和自动调优模型,从而最大化性能输出。AMD 在官方测试中表示,在默认 PyTorch 路径上运行,AMD Radeon RX 7900 XTX 每秒提供 1.87 次迭代;不过开启 Microsoft Olive 工具优化模型之后,该 GPU 每秒可以迭代 18.59 次。
IT之家在此附上博文链接,感兴趣的用户可以深入阅读。
本站涵盖的内容、图片、视频等数据系网络收集,部分未能与原作者取得联系。若涉及版权问题,请联系我们进行删除!谢谢大家!
最高9.9倍,微软推出Olive工具:大幅优化AMD GPU运行模型性能
IT之家 8 olive月 22 日消息,微软公司近日发布新闻稿,介绍了全新的 Microsoft Olive 工具,最多可以让 AMD 旗下的 GPU 显卡运行模型性
Microsoft Olive 是由 Pythonolive 语言开发的工具,可以大幅优化 AMD GPU 运行大语言模型的性能。
新闻稿中表示 Radeon RX 7900 XTX GPU 在启用 Microsoliveoft Olive 工具之后,以运行 Stable Diffusion 模型为例,基于文本生成图像性能明显提升。olive
Microsoft Olive 可以转换、优化、量化olive和自动调优模型,从而最大化性能输出。AMD 在官方测试中表示,在默认 PyTorch 路径上运行,AMD Radeon RX 7900 XTX 每秒提供 1.87 次迭代;不过开启 Microsoft Olive 工具优化模型之后,该 GPU 每秒可以迭代 18.59 次。
IT之家在此附上博文链接,感兴趣的用户可以深入阅读。
本站涵盖的内容、图片、视频等数据系网络收集,部分未能与原作者取得联系。若涉及版权问题,请联系我们进行删除!谢谢大家!